1
데이터 활용 패러다임 비교: 레이블링 스펙트럼
EvoClass-AI003Lecture 10
00:00

데이터 활용 패러다임 비교: 레이블링 스펙트럼

머신러닝 모델의 성공적인 배포는 레이블 데이터의 가용성, 품질, 비용에 크게 달려 있습니다. 인간의 주석 작업이 비싸거나 불가능하거나 전문성이 요구되는 환경에서는 기존의 학습 패러다임은 효율성이 떨어지거나 완전히 실패할 수 있습니다. 우리는 정보 활용 방식에 따라 세 가지 핵심 접근법을 구분하는 레이블링 스펙트럼을 소개합니다: 지도 학습 (SL), 비지도 학습 (UL), 그리고 반지도 학습 (SSL).

1. 지도 학습 (SL): 높은 정확도, 높은 비용

지도 학습은 모든 입력 $X$가 명확하게 알려진 참값 레이블 $Y$와 짝지어진 데이터셋에서 작동합니다. 이 방법은 분류 또는 회귀 과제에서 일반적으로 가장 높은 예측 정확도를 달성하지만, 밀도 높고 고품질의 레이블링에 의존하기 때문에 자원 소모가 큽니다. 레이블된 예시가 부족하면 성능이 급격히 저하되며, 이는 거대하고 변화하는 데이터셋에 대해 이 패러다임이 취약하고 종종 경제적으로 지속 불가능하다는 의미입니다.

2. 비지도 학습 (UL): 은닉 구조 탐색

비지도 학습은 오직 레이블 없는 데이터 $D = \{X_1, X_2, ..., X_n\}$에만 작동합니다. 그 목적은 데이터 매니폴드 내부의 내재적 구조, 기초 확률 분포, 밀도, 또는 의미 있는 표현을 추론하는 것입니다. 주요 응용 분야로는 클러스터링, 매니폴드 학습, 표현 학습 등이 포함됩니다. 비지도 학습은 사전 처리 및 특징 공학에 매우 효과적이며, 외부 인간의 입력 없이도 유의미한 통찰을 제공합니다.

Question 1
Which learning paradigm is designed specifically to mitigate high reliance on expensive human data annotation by utilizing abundant unlabeled data?
Supervised Learning
Unsupervised Learning
Semi-Supervised Learning
Reinforcement Learning
Question 2
If a model's primary task is dimensionality reduction (e.g., finding the principal components) or clustering, which paradigm is universally employed?
Supervised Learning
Semi-Supervised Learning
Unsupervised Learning
Transfer Learning
Challenge: Defining the SSL Objective
Conceptualizing the Combined Loss Function
Unlike SL, which optimizes solely based on labeled fidelity, SSL requires a balanced optimization strategy. The total loss must capture prediction accuracy on the labeled set while enforcing consistency (e.g., smoothness or low density separation) across the unlabeled set.

Given: $D_L$: Labeled Data. $D_U$: Unlabeled Data. $\mathcal{L}_{SL}$: Supervised Loss function. $\mathcal{L}_{Consistency}$: Loss enforcing prediction smoothness on $D_U$.
Step 1
Write the general form of the total optimization objective $\mathcal{L}_{SSL}$, incorporating a weighting coefficient $\lambda$ for the unlabeled consistency component.
Solution:
The conceptual form of the total SSL loss is a weighted sum of the two components: $\mathcal{L}_{SSL} = \mathcal{L}_{SL}(D_L) + \lambda \cdot \mathcal{L}_{Consistency}(D_U)$. The scalar $\lambda$ controls the trade-off between label fidelity and structure reliance.